英伟达芯片成科技界“贫富”分界线
北京时间8月29日,英伟达的人工智能处理器现在“一芯难求”,它甚至成了划分科技界“贫富”的分界线。
由于人工智能(AI)大模型的训练需要使用海量数据,这让最适合训练这种模型的英伟达图形处理器(GPU)成为了各家公司争抢的“香饽饽”。如果你拥有充足的英伟达GPU,那么你就占得了先机。否则,你就输在了起跑线上。
研究公司SemiAnalysis分析师迪伦·帕特尔(Dylan Patel)和丹尼尔·尼什鲍尔(Daniel Nishball)在上周末对英伟达GPU的分布情况进行了分析,通过企业所拥有的GPU数量对科技界进行了“贫富”划分,分成了两组。
贫穷公司
科技界的GPU采购能力两极分化。GPU贫乏的一组大多是创业公司和开源研究人员,他们很难获得有限的GPU供应。
首当其冲的是欧洲创业公司和政府支持的超级计算机项目,比如“儒勒凡尔纳”(Jules Verne)。在SemiAnalysis看来,他们在AI大模型训练上“完全没有竞争力”。帕特尔和尼什鲍尔认为,欧洲将在AI竞赛中掉队,因为它缺乏进行大规模投资的能力,并且一直处于GPU贫乏的境地。相比之下,即便是中东国家也在加大投资,为AI提供大规模基础设施,更不用说中国和美国了。
英伟达A100价值1万美元
接着是一些知名的AI创业公司,比如Hugging Face、Databricks和Together,它们所拥有的GPU数量也很少。
富有公司
SemiAnalysis的数据显示,少数公司从英伟达那里获得了2万多颗A100或H100 GPU。 H100是英伟达最新旗舰AI芯片,价值4万美元。它的前一代是A100芯片,价值1万美元。
这些财大气粗的采购者是目前行业领先的AI公司,包括OpenAI、谷歌、Anthropic、Inflection、埃隆·马斯克(Elon Musk)旗下X、脸书母公司Meta。“他们拥有的计算资源与研究人员比例最高。”SemiAnalysis写道。
SemiAnalysis指出,2024年底前,上述AI领导者中的一些公司以及多家中国公司将获得逾10万颗GPU。根据外媒在本月早些时候的报道,中国互联网巨头已经订购了价值50亿美元的英伟达芯片。
中国公司采购50亿美元英伟达芯片
多方消息称,百度、字节跳动、腾讯和阿里巴巴已经向英伟达发出了价值10亿美元的订单,采购大约10万颗A800芯片,今年交付。由于美国政府采取的限制措施,中国公司只能采购降级版A800芯片,它的性能要比英伟达的尖端A100或H100芯片弱一些。另外,他们还采购了价值40亿美元的英伟达GPU,2024年交付。
谁最富有?
SemiAnalysis称,按照H100 GPU的数量计算,Meta将排名世界第二。
那么谁是第一呢?谷歌。帕特尔和尼什鲍尔指出,这家互联网巨头是“世界上计算资源最丰富的公司”,具有“无与伦比的高效架构”。
几年前,谷歌宣布自己已是一家“AI优先”的公司。很快,它将推出名为“双子座”(Gemini)的下一个AI大模型,并且已经在训练下一个迭代了。
OpenAI凭借ChatGPT抢占了先机,但是它要小心谷歌的追赶。
“谷歌已经觉醒了,他们的迭代速度将碾压GPT-4,今年年底之前的总预训练FLOPS(每秒浮点运算次数)将是GPT-4的五倍。在当前基础设施建设的支撑下,他们明年年底前的算力更是可以达到GPT-4的20倍。不过,至于谷歌是否有胆量在不削弱其创造力或现有商业模式的情况下公开发布这些模型,那就是另一回事了。”帕特尔和尼什鲍尔在文章中这么说。
另外,在“贫”、“富”两组之间还有一个群体,他们一直从英伟达那里购买大量GPU,但却没有赚回他们的钱,例如加拿大AI独角兽Cohere、沙特、阿联酋